Mai Thúc Loan sinh vào năm Canh Ngọ (670) tại thôn Ngọc Trừng, Hoan Châu, nay thuộc huyện Nam Đàn, Nghệ An. Theo Việt điện u linh, cha của Mai Thúc Loan là Mai Hoàn, mẹ là Mai An Hòa nguyên gốc Thạch Hà, Hà Tĩnh, lưu lạc sang vùng Nam Đàn, Nghệ An.[3]

Theo sách Việt sử tiêu án, Mai Thúc Loan là người làng Hương Lãm, huyện Nam Đường, nay là thị trấn Nam Đàn, tỉnh Nghệ An, dân lập đền thờ ông ở thôn chợ Sa Nam.[2]

Năm Mai Thúc Loan 10 tuổi, mẹ đi lấy củi bị hổ vồ, ít lâu sau bố cũng mất. Ông được người bạn của cha là Đinh Thế đem về nuôi, sau gả con gái là Ngọc Tô cho. Sinh thời, Mai Thúc Loan vốn rất khỏe mạnh, giỏi đô vật, học rất giỏi và có chí lớn. Ông mở lò vật, lập phường săn, chiêu mộ trai tráng trong vùng mưu việc lớn. Vợ ông giỏi việc nông trang, nhờ đó "gia sản ngày một nhiều, môn hạ ngày một đông."

Nhờ chí du ngoạn lại được vợ hết lòng ủng hộ, Mai Thúc Loan kết thân với nhiều hào kiệt, sau này trở thành những tướng tài tụ nghĩa dưới lá cờ của ông như Phòng Hậu, Thôi Thặng, Đàn Vân Du, Mao Hoành, Tùng Thụ, Tiết Anh, Hoắc Đan, Khổng Qua, Cam Hề, Sỹ Lâm, Bộ Tân...

Sách An Nam chí lược viết về ông là "Soái trưởng Giao Châu".